El rápido avance de tecnologías como la inteligencia artificial generativa lleva al debate sobre los riesgos que puede entrañar su aplicación.
La inteligencia artificial es un campo de la informática encargado de crear sistemas y programas capaces de dotar a máquinas con habilidades humanas como el aprendizaje o la posibilidad de planear acciones, imitando las capacidades de las personas.
Estamos ante uno de los conceptos tecnológicos de moda y cuyas aplicaciones son de gran utilidad tanto en el ámbito particular como en el profesional, abarcando sectores diferentes como los asistentes virtuales, la ciberseguridad, la medicina o la robótica.
Uno de los tipos de IA existentes es la inteligencia artificial generativa.
Por IA generativa se entiende el tipo de inteligencia artificial con capacidad para crear nuevos contenidos como música, vídeos, texto, audio o imágenes.
Los modelos de este tipo de inteligencia artificial aprenden los patrones y la estructura de sus datos de entrenamiento de entrada y luego generan nuevos datos que tienen características similares.
La inteligencia artificial generativa utiliza un modelo de aprendizaje automático para aprender los patrones y las relaciones de un conjunto de datos de contenido creado por personas para, posteriormente, usar patrones que ya conoce con los que generar contenido.
La gran diferencia entre la IA generativa y los tipos más establecidos de IA, como la analítica o la discriminativa, es que la generativa da el salto de las capacidades cognitivas al ámbito de las capacidades creativas. Con la generativa, la máquina produce información nueva en lugar de limitarse a reconocer, analizar o clasificar contenido existente.
El impacto de la IA generativa es tal que un estudio de KPMG afirma que casi cuatro de cada cinco líderes empresariales consideran esta tecnología como la que mayor impacto tendrá en sus negocios en el próximo lustro.
Este pasado mes de abril, José María Álvarez-Pallete, presidente ejecutivo de Telefónica, ya que la explosión de la IA generativa va a ser “un punto de inflexión en la humanidad, probablemente superior a lo que fue la llegada de la imprenta o la fisión nuclear”.
Los actuales modelos de IA han multiplicado su velocidad de aprendizaje por más de 100 millones en la última década debido a que entonces los sistemas de IA se entrenaban con cantidades limitadas de datos mientras que hoy se alimentan con la ingente (y además creciente) cantidad de datos que hay disponibles en internet.
“El resultado es que hoy, la AGI es capaz de superar el examen de acceso médico y a la abogacía en el percentil más alto. Hoy, la AGI escribe el 40% del código de un ingeniero de software y empieza a desarrollar capacidades complejas como el engaño.
Nuestra capacidad de distinguir un texto generado por AGI o por un humano es ya imposible en la práctica”, resumía Álvarez-Pallete, para quien la inteligencia artificial generativa tiene “la capacidad de hacer avanzar a la humanidad de forma exponencial”.
Sin embargo, y al igual que en anteriores revoluciones tecnológicas, “no podemos dejar que campe a sus anchas. No todo lo que la tecnología es capaz de hacer es bueno o socialmente aceptable”, zanjaba el presidente de Telefónica, quien alertaba de que “una AGI descontrolada o con afán de poder es un riesgo existencial. Podría elaborar moléculas dañinas para el hombre o llevar los modelos de fake news o deepfakes a convertirse en una amenaza para la democracia a través de campañas masivas de desinformación sistemática e indetectable”.
Richard Benjamins, Chief Responsible AI Officer de Telefónica, también considera que la IA generativa representa un importante avance de la inteligencia artificial, puesto que esta tecnología ahora “es capaz de manipular también nuestro lenguaje, la característica principal que separa los humanos del resto de los seres vivos”.
Además de las ventajas que ya hemos visto que ofrece este tipo de tecnología, ChatGPT, como uno de los grandes referentes de la IA generativa, “es capaz de inventar cosas que no son verdaderas; las llamadas alucinaciones”.
Igualmente, alerta de que “ChatGPT podría generar una enorme cantidad de desinformación (noticias falsas) en muy poco tiempo.
En manos equivocadas podría causar serios problemas en las sociedades hasta influir en elecciones democráticas. ChatGPT es tan bueno que hasta los profesionales jurídicos o médicos puedan sentir una tentación de usarlo para su trabajo, con todas las consecuencias y riesgos”.
Por ello, el ejecutivo considera “importante, necesario y positivo” el hecho de que cada vez más organizaciones reflexionen sobre los posibles impactos negativos del uso de la inteligencia artificial.
Aunque los deepfakes no son nuevos, sí es cierto que la popularización de la IA generativa ha conllevado un aumento de su creación y difusión. ¿Pero qué es un deepfake y cómo podemos detectarlo?
Se podría definir como una técnica de suplantación de identidad que recopila datos sobre movimientos físicos, rasgos faciales e incluso voz para posteriormente procesarlos a través de un algoritmo codificador IA o una Red generativa antagónica (GAN) y después crear contenido audiovisual, gráfico o de voz falso, pero hiperrealista.
Aunque es cierto que el nivel de sofisticación es cada vez mayor y, por lo tanto, es más complicado detectar un deepfake, hay una serie de detalles que pueden ayudar a identificarlos si prestamos atención:
Otro campo relevante donde puede tener incidencia la IA generativa es la educación. Ante los nuevos horizontes educativos que ofrece la rápida evolución de esta tecnología, la UNESCO ha llamado a actuar “urgentemente con miras a garantizar su integración en los sistemas de aprendizaje según nuestras condiciones”.
Y es que este organismo de las Naciones Unidas ha expresado su preocupación “por el hecho de que los controles y equilibrios aplicados a los materiales didácticos no se estén utilizando en la aplicación de la IA generativa”.
Con datos una encuesta del mes de mayo de 2023 (llevada a cabo en más de 450 escuelas y universidades), la UNESCO reveló que menos del 10% de estas instituciones han elaborado políticas institucionales y/o directrices formales sobre la utilización de aplicaciones de IA generativa.
Por ello, la organización alerta de que “el sector educativo no puede depender de los creadores corporativos de la IA para regular su propio trabajo. Para examinar y validar las nuevas y complejas aplicaciones de IA para su utilización formal en las escuelas, la UNESCO recomienda que los ministerios de educación desarrollen sus capacidades en coordinación con otras ramas reguladoras del gobierno, en particular aquellas que regulan las tecnologías”.
Así pues, como con todo avance tecnológico de calado, vemos que la evolución de la IA generativa ofrece un amplísimo abanico de posibilidades para el progreso social si bien es cierto que también, en función de los usos que se quieran darle, puede presentar retos complejos.
Fuente: Telefonica
© iPuntoTV 2023
01.11.23 17:33
